Tracing Target Answers in Poisoned Retrieval Corpora via Token Influence Attribution
基于令牌影响归因检测RAG中毒攻击并追踪目标答案
🧭 RAG安全性 · 令牌影响归因
National Yang Ming Chiao Tung University · IBM Research · Hon Hai Research Institute
TRACE利用令牌影响归因轻量检测RAG语料中毒，同时还原攻击者预设的错误答案
📌 工作参考价值（4 点）
- 电商客服或知识库RAG场景中，可将TRACE作为轻量安全层，无需额外LLM校验，仅通过高频高影响关键词检测中毒文档，降低计算开销和延迟。
- 方法依赖的令牌影响归因（如梯度×嵌入）可直接集成到现有RAG推理流程，对检索到的文档进行实时评分，用于过滤可疑内容。
- 论文揭示中毒文档中反复出现的高影响令牌会泄露攻击者预设的错误答案，这一特性可用于安全审计：通过追踪此类关键词发现攻击意图和候选恶意文档。
- 在推荐系统的评论问答或商品描述生成中，若使用RAG，同理可借鉴TRACE防止恶意语料篡改生成结果，提升系统鲁棒性。